欢迎来到公海堵船www710132·ios/安卓/手机版app下载

 
 
当前位置:企业家动态
  专题丨大模型落地:场景选择至关重要  
   
  发布时间: 24-04-19 11:19:04am    文章来源: 《企业家》 杂志  
         
 

 文丨姚春雷

图片

今年两会期间,“人工智能+”首次被写入政府工作报告。随着人工智能在企业的深化应用,无论是ChatGPT的诞生,还是Sora的横空出世,大模型在丰富人工智能应用场景中扮演着重要角色。当前,人们对大模型的讨论也不再局限于技术本身,而是更加关注大模型可以在哪些场景真正落地,如何通过大模型赋能千行百业,从而为人类、企业以及社会的高质量发展创造价值。

《企业家》杂志

弘扬企业家精神  传播管理智慧


图片
姚春雷
用友iuap智能中台专家

01

企业应用大模型难题:私有化部署

大模型具备记忆、推理、逻辑理解、内容生成、代码生成等多项能力,包括多模态发展,能够完成很多复杂任务。企业对数据的安全性要求较高,私有化部署是企业在大模型应用时的首选,同时也对软硬件设备、技术开发能力等都提出了很高的要求。

其一,计算资源需求大。大模型的训推需要大量的计算资源,如高性能计算机、大规模集群和云计算平台等。
其二,存储空间大。大模型参数越大所需数据量越大,意味着需要具备先进的数据处理和存储技术。
其三,持续学习问题。大模型是基于资料自我学习后再把信息进行整合、加工,传递给用户。只有通过不断学习,大模型才能满足企业即时搜索的需求。因此,大模型中的数据量会越来越大,计算过程越来越复杂,所以对其运算能力和运算时间提出更高要求。

图片

其四,复杂场景的落地成本高。企业复杂的业务场景对模型的参数要求越高,随之成本越高。
用友企业服务大模型YonGPT,考虑落地过程中成本高、落地难等问题,对大模型进行了裁剪,也就是模型压缩。压缩后的硬件和软件成本都可以降到企业可接受的范围。解决了软硬件的成本问题后,要让大模型真正落地,最重要的就是场景。

02

智能大搜:大模型落地企业场景便捷入口

用友在服务企业客户时发现,大部分企业尤其是庞大组织中的非结构化数据量非常大,寻找文档、图片、视频等内容的过程非常复杂。

其一,很难鉴定“搜”和“答”的边界。比如,我们平时用百度或谷歌搜索,通常是搜索具体的关键词,搜索和问答很难鉴定是由于无形中就伴随着问答。比如“智能大搜是一款什么样的产品?”这是一个问题,但它也可能是搜索“智能大搜”的关键词,所以搜索中很难鉴定到底是“问”还是“搜”。这要求我们对整个关键词进行很好的语义理解,提取关键词并进行相关搜索。
其二,海量数据需要持续运营。上面提到大模型需要不断学习,需要企业处理海量数据,其次是标注、标签,更重要的是还需要知识的运营。比如企业如何构建知识库,如何让知识库中的知识快速满足不同角色、不同场景下的搜索需求。
用友作为一家大型企业同样面临着这些问题。从2014年开始,在解决自身企业搜索问题的同时,用友结合大模型底座YonGPT于2023年正式推出了智能大搜,为企业提供AI大模型驱动的新一代搜索引擎,让知识赋能业务和组织。
智能大搜的出现,一方面,让企业大模型的落地有了便捷入口;另一方面,随着企业对资料的持续迭代,在大模型的作用下,解决了即时搜索的难题。同时,智能大搜也是企业大模型在搜索能力上的增强应用,为企业搜索提升了人性化体验,降低了大模型的落地成本难题。 

03

应用场景:智搜、智问、智推

智能大搜的主要目的是解决企业构建知识库的问题。通过搜文档、搜视频等功能,用友智能大搜迅速定位所需内容,帮助企业提升知识获取效率、降低学习成本。

目前,国内市场上的智能搜索相关产品非常多,但大多数产品的核心能力是语言型搜索能力,YonGPT智能大搜具备多模态的搜索能力,可以支持文档搜索、图片搜索、视频搜索、图谱搜索等,同时可以绑定工作流,根据需要进行配置;智能大搜是多级门户的设计,企业可以通过不同组织、不同角色定义不同的搜索门户;智能大搜支持门户的运营分析。包括有多少文件数量、文件类型、文件空间、图片数量等,包括一级节点数、二级节点数、搜索关键词排名、用户排名、命中率排名、失败率排名等。企业在大模型管理方面,可以默认使用用友YonGPT,也可以配置文心一言、通义千问、智谱等模型,甚至匹配自己的模型;智能大搜支持资源库的创建、修改、编辑等,包括文件批量上传、单文件的上传、自动分词等处理方式,同时也支持PDF、DOC等多种文档类型。并且,用友智能大搜完全支持私有化部署。
图片
△智能大搜的出现,一方面,让企业大模型的落地有了便捷入口;另一方面,随着企业对资料的持续迭代,在大模型的作用下,解决了即时搜索的难题。
用友智能大搜可以为企业带来智搜、智答、智推三方面价值,基于用户画像猜用户所想,推用户所需,助力企业内部资源高效应用。
1.智搜
智能大搜基于用友企业服务大模型YonGPT,提供“沉浸式”搜索新体验,低成本接入,聚焦企业各类搜索场景,帮助员工快速、准确获取所需知识。
具体到某些特定的场景,比如搜索时具备修正词的能力。诸如法律、金融、医疗行业通常有大量专业名词,信息名称在输错的情况下,能否精准命中,考验的就是修正词的能力。用友智能大搜构建了修正词的能力,用户可根据自身需求构建自有修正词库,同时还支持知识图谱、资源标注、资源权限的控制能力。
以医疗行业为例,比如输入“复方甘草片”,其中方是方块的“方”,不是芳草的“芳”。如果输入错误,大模型无法精准判断。但是在大模型底层精准命中的时候,它会直接替换成正确的词进行查询,也就是说即使你输入了错误的词,依然可以查到正确结果。 
经调查发现,医疗行业每人每天上百次查询的错误率高达60%,使用修正词库功能后正确率提高了很多。
再如权限功能,即支持多级的搜索门户和权限搭配。大部分搜索引擎中是不会划分权限的,但一般企业是非常严肃的,在相关部门,文件分为公开、机密、保密文件,不同文件需要匹配不同的角色。用友智能大搜在搭建搜索门户时,绑定了有权限的资源库,进行角色分配,即不同的角色可以访问相对权限的搜索门户,不是所有角色都能访问统一的门户。
在这种情况下,如果我们给每个门户分配多个权限将非常繁琐,当资源和门户进行绑定时,用户在搜索时会携带用户信息进入搜索层,根据用户信息决定你能访问哪个资源库的权限,从而解决典型的权限问题,大大降低了配置的工作量。
2.智答
强大的语义理解和分析能力可以挖掘企业沉淀的领域/行业知识宝藏,提供高质量的多模态知识问答,降低学习成本,提升工作效率。
智能大搜面临的一大挑战是很难解决“搜”和“问”的边界,所以,智能大搜把“搜”和“问”做了模糊处理,可以为用户提供匹配真实需求的答案。
比如我们问“张三是谁?”在正常搜索中一般会搜“张三”两个字,但这个提问后面多了一个“是谁”,如果我们把这四个字作为一个整体,语义理解会比较麻烦,到底是在问张三,还是问后面是谁?如果仅问张三,搜索张三的关键词,和张三相关的内容都会出来。但是你要问是谁?更多是要找他的简历及相关介绍。所以智能大搜把“搜”和“问”进行了模糊处理,也就是说,不管输入“张三”还是“张三是谁?”,它都能精准地理解用户的意图,整个过程不需要用户自己做特别的界定。
3.智推
基于用户画像,猜用户所想,推用户所需,助力企业内部资源高效应用。
智推功能,可以理解为推荐的功能。在整个搜索过程中,智能大搜推荐的是用知识图谱感知用户的理解后输出的内容。比如搜索“微服务宕机了怎么办?”除了给我们推荐解决微服务宕机的解法,还会推荐和微服务宕机相关的其他内容,这就是它的推理能力。从实践来看,单一大模型很难在企业落地。智能大搜是适合全行业、企业全角色的一套工具,让大模型在企业的应用中找到了落地点。而且针对不同行业不同用户需求,智能大搜还可以支持定制化应用。因此未来智能大搜一定会成为企业级大模型的前端能力,为大模型在企业的落地提供了统一的且便捷的入口,通过“人工智能+”提升企业新质生产力,实现高质量发展。

 

 
   
    关闭窗口  
中国企业联合会、中国企业家协会
地址:北京市海淀区紫竹院南路17号 邮编:100048
中国企业联合会信息工作部 技术支持 京ICP证 13027772号
XML 地图